Trước khi phò tá Hideyoshi, một số người cho rằng có thể Yoshitsugu đã phục vụ cho Azai Nagamasa khi ông cai quản tỉnh Ōmi - nơi Yoshitsugu sống, sau khi bị Oda Nobunaga tiêu diệt, Yoshitsugu đầu hàng nhà Oda và phục vụ Hideyoshi. Tuy nhiên nguồn tin này tính xác thực không cao khi cha ông lúc này còn phục dịch nhà Ōtomo

Theo sử sách ghi lại thì cha ông đã rời bỏ nhà Ōtomo khi ông khoảng tầm 20 đến 30 tuổi nhưng không cha ông sau đó phục vụ cho nhà nào cũng như ông có theo cha phục vụ nhà Ōtomo không. Lúc gần 30 tuổi, ông phò tá cho Toyotomi Hideyoshi, một số người cho rằng đó là ảnh hưởng từ mẹ ông khi bà phục vụ Nene, cũng nhiều người cho rằng Ishida Mitsunari nhận ra tài năng của ông và tiến cử ông với Hideyoshi. Yoshitsugu được đánh giá là một người tài năng và cởi mở, giúp ông có rất nhiều bạn. Quá trình và công trạng lúc ông theo Hideyoshi vẫn là dấu hỏi. Nhiều người cho rằng ông bắt đầu sự nghiệp khi cầm 700 người theo Hideyoshi tham gia trận Yamazaki tiêu diệt Akechi Mitsuhide để trả thù cho Oda Nobunaga vì sự kiện Honnōji. Trong trận Shizugatake, ông hỗ trợ Kato Kiyomasa và Fukushima Masanori đánh chiếm thành Nagahama được trấn giữu bởi Shibata Katsutoyo -cháu của Shibata Katsuie. Hideyoshi có nói rằng ông rất thích thú và yên tâm nếu được nhìn Yoshitsugu thống lĩnh 1 triệu quân ra trận. Một số giai thoại trong trận chiến nói rằng Hideyoshi cho ông theo Mitsunari ra trận và khen các bước tính toán và tiến quân của Yoshitsugu là hoàn hảo từ đầu đến chân, giai thoại khác nói rằng ông đã nhẹ nhàng thuyết phục Katsutoyo đầu hàng Hideyoshi, vài giai thoại kể ông là một vị tướng dũng cảm hay cầm thương tiên phong. Các giai thoại này không được tìm thấy trong sử sách cho nên có thể đó chỉ là sự hư cấu. Sau trận Shizugatake, một số giai thoại kể rằng Yoshitsugu bắt đầu bị đổ bệnh, khi các nhà sư ở Osaka thấy ông bị chảy máu và trông nghiêm trọng hơn bình thường, tuy nhiên ông vẫn đủ sức giết 1000 tên địch để giúp Hideyoshi dẹp loạn. Hideyoshi ban thưởng cho ông sau chiến thắng ở Kyūshū, ban cho ông 50,000 koku và cai quản thành Tsuruga, ông mang 10,000 koku cho người dân và chư hầu trong lãnh địa của mình. Sau cuộc chiến ở Triều Tiên, Hideyoshi mời ông tham dự tiệc trà với ông. Lúc uống trà, ông bị chảy nước mũi và bị rơi vào bát trà. Nhận thấy Yoshitsugu tỏ ra e ngại, Hideyoshi hiểu ra rồi bảo ông đưa bát trà để mình uống vì khát nước quá. Hideyoshi uống hết bát trà đấy và tỏ ra chưa hề có chuyện gì xảy ra, điều này làm Yoshitsugu cảm phục chủ mình và thề sẽ tiếp tục lòng trung. Ông tiếp tục phục vụ Hideyoshi và hỗ trợ Mitsunari cho đến khi Hideyoshi thống nhất Nhật Bản.